Album được đón nhận nhìn chung là tích cực. Đặc biệt, phần chơi guitar neo-classical của Randy Rhoads đã nhận được nhiều lời khen ngợi.[13] Steve Huey của AllMusic nhận xét rằng "không có gì lạ khi tìm thấy những người hâm mộ thích Diary hơn Blizzard, vì nó tạo ra một giai điệu thậm chí còn huyền bí, kỳ quái hơn và vì lối chơi của Rhoads đang tiến lên một cấp độ cao hơn". BBC Music nhận xét album là "một đĩa nhạc classic rock về mọi mặt", "được huyền thoại nhạc rock, 'thánh rìu' Randy Rhoads nâng lên một cách khác thường".[14] Nhà báo người Canada Martin Popoff nhận định Diary of a Madman là "một nhạc phẩm kinh điển trường tồn được xem là màn trổ tài xuất chúng cho Randy Rhoads."

Mặc dù ngày nay album được đánh giá khá cao, nhưng các bài đánh giá về bản album phát hành năm 1981 thường kém nhiệt tình hơn. Ví dụ, JD Considine của Rolling Stone nhận xét về bản phát hành gốc của album rằng "các bài hát ở đây ít những khúc riff hơn với tôn phần hát vút lên trên" và gọi Rhoads là "một Eddie Van Halen hạng thấp - hối hả với những nhát chặt nhưng hơi thiếu trí tưởng tượng". Tuy nhiên, tạp chí đã thay đổi cách nghĩ và sau đó xếp album ở vị trí thứ 15 trong danh sách "100 album nhạc metal hay nhất mọi thời đại" vào năm 2017.[15]